Hầu hết các tầng đá phiến dầu hình thànhtrong giai đoạn kỷ Cambri giữa, kỷ Ordovic sớm và giữa, kỷ Devon muộn, kỷ Jura muộn và kỷ Paleogen.[1] Các tầng này được hình thành từ sự tích tục vật chất hữu cơ trong nhiều môi trường lắng đọng khác nhau bao gồm nước ngọt đến các hồ muối, các bồn đại dương ven bờ và thềm dưới triều và được giới hạn trong các khu vực cửa sông như hồ móng ngựa, đầm lầy và các đầm lầy ven biển, và đất axít.[3] Khi thực vật chết đi trong các môi trường nước kỵ khí như thế này, thì hàm lượng ôxy thấp làm cho chúng không bị phân rã sinh học hoàn toàn.[4]

Đối với các chất hữu cơ chưa bị phân rã được bảo tồn và hình thành đá phiến dầu, thì môi trường phải được duy trì không biến đổi trong các giai đoạn lâu dài để tạo thành các tầng tảo đủ dày. Đôi khi, đầm lầy tảo hoặc các môi trường nhỏ khác bị phá vỡ và sự tích tụ đá phiến dầu dừng lại. Bị chôn vùi bên dưới các trầm tích đè ở trên, các trầm tích tảo đầm lầy biến đổi vật liệu hữu cơ thành kerogen bởi các quá trình thành đà thông thường sau:

• Sự nén ép do các trầm tích phủ bên trên lớp than làm cho các chất hữu cơ bị nén chặt.
• Trải qua nén ép và tác dụng nhiệt làm giảm độ ẩm trong than bùn và từ cấu trúc bên trong tế bào của các thực vật bị hóa thạch, và loại bỏ phân tử nước.
• Methanogenesis tạo ra mêtan, loại bỏ hydro, một ít cacbon, và ôxy.
• Khử nước loại bỏ các nhóm hydroxyl từ cellulose và các phân tử thực vật khác tạo ra than bị khử hydro và đá phiến dầu.[4]

Tương tự với quá trình hình thành than, các đá phiến dầu khác với than ở cách tồn tại. Các vật chất hữu cơ ban đầu trong đá phiến dầu và than khác nhau về ý nghĩa, theo đó đá phiến dầu có nguồn gốc từ tảo, nhưng cũng có thể bao gồm xác của các thực vật trên cạn có mạch nhiều hơn thành phần chất hữu cơ trong than. Nguồn gốc của chất hữu cơ trong đá phiến dầu còn chưa rõ do thiếu các cấu trúc sinh học để có thể nhận dạng được các tổ hợp ban đầu. Các vật liệu này có thể có nguồn gốc vi khuẩn hoặc các sản của tảo bị vi khuẩn phân hủy hoặc các vật chất hữu cơ khác.[3]

Nhiệt độ và áp suất càng thấp trong quá trình thành đá so sánh với các cơ chế khác trong việc tạo ra hydrocarbon thì tạo ra đá phiến dầu có mức độ chín muồi càng thấp. Việc chôn vùi liên tục trong điều kiện chịu nung nóng và áp suất có thể tạo ra dầu và khí trong đá phiến dầu (đá mẹ).[11] Các mỏ lớn được tìm thấy trong các hồn cổ giống như các mỏ của hệ tầng sông Green, Wyoming và Utah, Hoa Kỳ. Các bể đá phiến dầu tạo ra trong hồ lớn được tìm thấy trong các khu vực có đứt gãy khối tảng hoặc vỏ bị oằn do hoạt động kiến tạo sơn. Các trầm tích sông Green có bề dày gần 610m và có thể tạo ra gần 166 lít/tấn đá phiến dầu.[8]

Các mỏ đá phiến dầu hình thành trong môi trường biển nông trên thềm lục địa thường mỏng hơn các mỏ trong các bồn trũng. Loại đặc biệt này chỉ dày vài mét nhưng bao phủ trên một diện rất rộng đến hàng ngàn km vuông. Trong ba loại đá phiến dầu chia theo đặc điểm thạch học thì đá phiến dầu silic thường được tìm thấy trong các môi trường này. Loại đá phiến dầu này không giàu vật chất như loại hình thành từ trầm tích hồ và nhìn chung thì không thể tạo ra hơn 30 gallon dầu/tấn đá phiến dầu. Các mỏ đá phiến dầu hình thành trong môi trường đầm phá và hồ nhỏ hiếm khi phát triển kéo dài và thường liên quan đến các đá chứa than.[5][8] Các đá phiến dầu loại này có thể tạo ra một lượng dầu tương đương 166 lít/tấn đá phiến dầu. Tuy nhiên, do bị giới hạn trong khu vực nhỏ nên chúng không thể xếp vào loại khai thác thương mại.[3]